Les agents IA ont besoin de boîtes noires
Le rapport technique d'OpenAI sur l'incident Hugging Face transforme l'argument de la boîte noire en procédure opérationnelle. La leçon utile n'est pas que les agents ont besoin de slogans safety plus forts. C'est qu'ils ont besoin de chronologies, de traces d'outils, de règles d'escalade, de couverture monitoring, de comportements d'arrêt sûr et de preuves qu'une exécution peut être stoppée avant de toucher le monde.